#kv cache
1 artykułów
-
Deepseek just did the impossible
Deepseek V cztery jeden Flash zajmuje w pamięci ponad czterysta razy mniej miejsca niż pierwsza generacja tego modelu, a wynikami dorównuje modelom z czołówki. Lab, który to zrobił, nie ma najlepszych kart Nvidii, nie ma wielkiego centrum danych i jest kilkadziesiąt razy mniejszy od OpenAI. Rozwiązanie nie polega na…